FTC, Yapay Zeka Sohbet Robotlarının Çocuklar Üzerindeki Ruh Sağlığı Risklerini Araştırıyor

ABD Federal Ticaret Komisyonu (FTC), yapay zeka sohbet robotlarının çocuklar üzerinde oluşturabileceği potansiyel ruh sağlığı risklerini araştırmaya başladı. Düzenleyici inceleme, OpenAI, Meta Platforms ve Character.AI gibi büyük teknoloji şirketlerini hedef alıyor ve iç belgelerin talep edilmesi bekleniyor.

Endişeler, uygunsuz konuşmalardan lisanssız terapötik tavsiyelere kadar zararlı etkileşimlere girebilen yapay zeka sistemleri üzerinde yoğunlaşıyor. Son gelişmeler arasında Meta'nın sohbet robotlarının reşit olmayanlarla romantik diyaloglar başlatması yer alıyor ve bu durum Teksas Başsavcısı Ken Paxton'ın geçen ay paralel bir soruşturma başlatmasına neden oldu.

Meta, genç kullanıcılar için yeni güvenlik özellikleriyle yanıt verirken, Kindness.AI düzenleyicilerle işbirliği yapmaya istekli olduğunu ifade ediyor. Bu soruşturma, yapay zekanın toplumsal etkisi, özellikle de savunmasız demografik gruplar üzerindeki etkisi konusundaki artan endişeyi yansıtıyor.